"I didn't Make the Micro Decisions": Measuring, Inducing, and Exposing Goal-Level AI Contributions in Collaboration
目标级AI贡献的测量、诱导与暴露:人机协作归属框架
🧭 人机协作目标级贡献归属与 AI 主动性测量 ★ 深度解读
KAIST · Carnegie Mellon University · Seoul National University
提出 COTRACE 框架,在目标与需求层面量化人类与 AI 的贡献,并揭示可控制的间接影响模式
📌 工作参考价值(4 点)
- 目标分解为可验证需求:可将电商对话中的复合意图拆分为一组独立、可检查的 requirement,用以量化 AI 在需求创建、修改中的贡献,区分 AI 是简单执行还是主动塑造了用户目标。
- 间接影响模式直接复用:论文归纳的四种间接影响类型(under-specification, artifact-triggered elaboration, problem-triggered revision, interactional steering)可直接作为 prompt 模板或 agent 交互策略,在需要 AI 更主动时故意模糊用户输入,或提供半成品以引导 AI 提出更细的需求,例如在生成式推荐中让 AI 先给一个粗方案,诱导用户补充细节。
- 交互设计控制 AI 主动性:强制 agent 每次行动前发送消息(Chat 模式 vs 直接工具调用的 Agentic 模式)使 AI 对目标塑造的贡献率从 24.5% 提升至 42.9%。在 Agent 系统中,可以通过插入一条简单的“先表达计划再执行”规则,平衡自主性与可控性。
- 贡献可视化提升用户校准:将贡献分析图暴露给使用者后,其对自己执行贡献的评分平均下降 1.8 分(5 分量表),有效纠正对 AI 贡献的低估。在推荐解释或协作式购物助手中,可引入类似“决策影响回溯”视图,帮助用户理性评估 AI 的建议。